The Other Half of the Memory Wall: Serving 35B MoEs from SSD with Trained Routing Prediction
内存墙的另一半：用训练的路由预测从 SSD 服务 35B MoE
🧭 LLM 推理优化 · SSD offloading
AutoArk
Edge0 用下一层路由预测实现 SSD 流式加载专家权重，在单 24GB 卡上以 20 tok/s 服务 35B MoE，质量接近 fp16 教师
📌 工作参考价值（3 点）
- 在资源受限的单卡环境部署 LLM 推荐/Agent 时，可采用 SSD offload + 路由预测预取：只加载预测命中的专家，用下一 token 的路由预测提前发起 I/O，隐藏磁盘延迟，降低峰值显存。
- 量化部署大模型时，可用未合并的 recovery LoRA 在量化后的 student path 上训练，补偿 int4 量化与路由替换带来的质量损失，推理时只增加极小的 adapter 计算，适合线上低时延场景。
- 路由预测思想可迁移到 Agent 多步推理或生成式推荐流水线：预测下一步需要的模型/数据组件并提前加载，减少串行等待，提升吞吐。